Khi kiểu máy bay tiêm kích Mitsubishi A5M vừa mới được đưa vào sử dụng vào đầu năm 1937, Hải quân Đế quốc Nhật Bản đã bắt đầu tìm kiếm một kiểu thay thế nó sau này. Vào tháng 5 họ phát hành bảng tiêu chuẩn 12-Shi cho một kiểu máy bay tiêm kích mới hoạt động trên tàu sân bay và gửi đến các hãng Nakajima và Mitsubishi. Cả hai công ty bắt đầu những công việc thiết kế sơ thảo trong khi chờ đợi những yêu cầu chi tiết hơn sẽ được gửi đến sau vài tháng.

Căn cứ vào những kinh nghiệm tác chiến của chiếc A5M tại Trung Hoa, Hải quân gửi các yêu cầu được cập nhật vào tháng 10. Chúng bao gồm một vận tốc 500 km/h (310 dặm mỗi giờ) ở độ cao 4.000 m (13.120 ft) và tốc độ lên cao 3.000 m (9.840 ft) trong vòng 3,5 phút. Nó phải bay được 2 giờ ở tốc độ tối đa hoặc 6 đến 8 giờ ở tốc độ bay đường trường với các thùng nhiên liệu phụ vứt được. Vũ khí bao gồm 2 pháo 20 mm và 2 súng máy 7,7 mm (0,303 inch) cùng 2 quả bom 30 kg (70 lb) hay 60 kg (130 lb). Mọi máy bay phải được trang bị hệ thống liên lạc radio đầy đủ, và kèm theo một bộ định hướng vô tuyến để dẫn đường tầm xa. Độ cơ động phải ít nhất tương đương với A5M, trong khi sải cánh phải ngắn hơn 12 m (39 ft) để phù hợp cho các tàu sân bay. Tất cả những điền kiện trên đây phải đạt được bằng các kiểu động cơ sẵn có, cũng là một giới hạn khác (động cơ trang bị cho Zero hiếm khi đạt trên 1.000 mã lực cho mọi phiên bản).

Nhóm thiết kế Nakajima nghĩ rằng những yêu cầu trên không thể đạt được và rút lui khỏi cuộc cạnh tranh vào tháng 1 năm 1938. Jiro Horikoshi, thiết kế trưởng của Mitsubishi, cảm thấy có thể thực hiện được nếu chiếc máy bay được làm càng nhẹ càng tốt. Mọi biện pháp làm nhẹ cân được áp dụng. Hầu hết thân máy bay được làm bằng hợp kim nhôm T-7178, một cải tiến tuyệt mật được phát triển bởi người Nhật cho riêng mục đích này. Nó nhẹ và chắc chắn hơn nhôm thường vào thời đó, nhưng dòn hơn. Ngoài ra, không có vỏ giáp để bảo vệ phi công, động cơ hay những bộ phận quan trọng; và thùng nhiên liệu tự hàn kín, một phát minh bắt đầu thông dụng vào lúc đó cũng bị bỏ qua. Điều này đã khiến cho Zero nhẹ hơn và nhanh nhẹn hơn hầu hết máy bay khác vào lúc bắt đầu cuộc chiến, nhưng cũng làm cho nó dễ bắt lửa và phát nổ chỉ sau khi trúng vài loạt đạn súng máy của đối thủ.

Với kiểu cánh đơn gắn thấp dạng bao lơn, càng đáp rộng xếp được và buồng lái kín, thiết kế không chỉ rất hiện đại hơn mọi kiểu Hải quân đã dùng, mà còn là một trong những kiểu hiện đại nhất trên thế giới. Zero có bộ cánh nâng được nhiều ở tốc độ chậm và có áp lực cánh rất thấp, cho phép nó có một tốc độ tròng trành rất thấp dưới 111 km/h (60 knot). Đây là nguyên nhân của khả năng lượn vòng [5] của kiểu máy bay này, cho phép nó lượn gắt hơn mọi máy bay tiêm kích Đồng Minh thời đó. Tốc độ lộn vòng được tăng cường bởi tấm lái thăng bằng đặt trên cánh điều khiển liệng sẽ được làm lệch ngược chiều lại cánh nhỏ giúp giảm nhẹ lực điều khiển. Điểm bất lợi là nó sẽ làm giảm hiệu quả lộn vòng ở tốc độ tối đa. Ở tốc độ 260 km/h (160 dặm mỗi giờ) A6M2 có tốc độ lộn vòng 56° mỗi giây. Vì độ linh hoạt của cánh, hiệu quả lộn vòng còn gần bằng 0 ở tốc độ 483 km/h (300 dặm mỗi giờ).

Tên gọi

A6M được biết đến nhiều nhất dưới tên gọi Zero do cách đặt tên của Hải quân Nhật: Máy bay chiến đấu trên tàu sân bay Đời 0 (tiếng Nhật: 零式艦上戦闘機, Rei shiki Kanjo sentoki), lấy từ hai số cuối của Năm đế chế (Nhật) 2600 (1940), khi nó được đưa vào hoạt động. Tại Nhật nó được gọi không chính thức là Rei-sen hay Zero-sen. Phi công Nhật thường gọi máy bay của họ là Zero-sen.[6][7]

Tên mã chính thức do Đồng Minh đặt là Zeke[8] Tên này nằm trong loạt đầu tiên của kiểu tên mã "hillbilly" do Đại tá Frank T. McCoy đặt ra, nhằm muốn có những cái tên nhanh chóng, dễ phân biệt và dễ nhớ. Khi hệ thống tên mã Đồng Minh được đưa ra áp dụng vào năm 1942, ông đã chọn một cách hợp lý cái tên "Zeke" dành cho "Zero". Sau này, hai phiên bản của chiếc máy bay tiêm kích không được nhận diện một cách rõ ràng, và được đặt những tên mã riêng: kiểu A6M2-N (phiên bản thủy phi cơ của Zero) được gọi là Rufe và phiên bản A6M3-32 ban đầu được gọi là Hap. Sau khi bị tướng "Hap" Arnold, tư lệnh Không lực Lục quân Hoa Kỳ phản đối, cái tên được chuyển thành Hamp.